乾隆二十七年（1762年），刘墉被任命为山西太原知府。

乾隆三十年（1765年），升任冀宁道台。

乾隆三十一年（1766年），刘墉因失察所属阳曲县令段成功贪侵国库银两，按律革职被判极刑，但乾隆皇帝爱其才，加恩诏免，仅发配军台效力赎罪，

乾隆三十二年（1767年），被赦免，释还，在修书处担任行走。

乾隆三十四年（1769年），刘墉因父亲的缘故被重新起用，授予江宁知府。刘墉十分珍视这次机会，为政公正清廉，声名远播，百姓叹服刘墉的品行，将其比为宋朝的包拯。

乾隆三十七年（1772年），刘墉调任陕西按察使。

乾隆三十八年（1773年），刘统勋病故，刘墉辞官回家服丧。

乾隆四十一年（1776年），刘墉服丧期满，还京，清廷念刘统勋多年功绩，诏授刘墉内阁学士，任职南书房。十月又任《四库全书》馆副总裁，并派办《西域图志》及《日下旧闻考》总裁。

乾隆四十二年（1777年）七月，充江南乡试正考官，不久后复任江苏学政。在任期间，刘墉曾劾举秦州举人徐述夔著作悖逆，建议按律惩办，年底因办事有功和督学政绩显著，迁户部右侍郎，后又调吏部右侍郎。

乾隆四十五年（1780年），刘墉升任湖南巡抚。当时湖南多处受灾，一些无灾州县盗案迭起，贪官污吏猖獗。刘墉到任后一面查明情由，据实弹劾贪官污吏，建议严办。一面稽查库存，修筑城郭建仓储谷，赈济灾民。仅一年余，库银充实，民粮丰足，刘墉得到当地百姓爱戴。

乾隆四十六年（1781年），刘墉升任为都察院左都御史。

乾隆四十七年（1782年）三月，直南书房，不久又充任三通馆总裁。同年，御史钱沣弹劾山东巡抚国泰贪纵营私，刘墉奉旨偕同和珅、钱沣赶赴山东济南府审理此案，期间，和珅有意偏袒国泰，钱沣据理力争，刘墉主持正义，终使国泰伏法，后来民间曾据此事写成通俗小说《刘公案》。[16]同年，迁工部尚书，任上书房总师傅。当时和珅炙手可热，刘墉也只能“委蛇其间,惟以滑稽悦容其间”，表现出其为人和为官的另一面，面对乾隆专宠于和珅，刘墉只好静默自守、虚与委蛇。

从乾隆二十一年(1756)开始，刘墉被外放做地方官，此后20余年的绝大部分时间里，他主要做地方官，由学政、知府，直至一方面的督抚大员。在做地方官期间，他基本上还是秉承了乃父刘统勋的正直干练、雷厉风行的行事风格。对科场积弊、官场恶习进行了力所能及的整顿，为百姓做了不少实事。

《诸城县志》称赞他：“砥砺风节，正身率属，自为学政知府时，即谢绝馈贿，一介不取，遇事敢为，无所顾忌，所至官吏望风畏之。”同时，他也不遗余力地贯彻乾隆皇帝的意旨，查禁书，兴文字狱，捉拿会党，积极推行文化高压政策。

刘墉做过提督安徽学政和提督江苏学政。提督学政是一省的教育长官，类似于现在的教育厅长，但不同之处在于，学政不受当地最高行政长官的节制，独立开展各项事务，督抚大员也不能侵其职掌。只有在特殊情况下学政离任，督抚才可暂时代管其事。学政还可以直接向皇帝上书，反映地方情况，吏治民风。

刘墉在前往安徽赴任前，乾隆帝特意召见并赐诗，其中有“海岱高门第，瀛洲新翰林”之句，意思是希望刘墉能够不辱门楣、有所建树。在出任江苏学政前，乾隆皇帝仍有诗相赠，可见对刘墉抱有厚望。刘墉也不辱使命，很是严肃认真。据清人笔记记载：“昔日刘石庵相国视学江苏，严肃峻厉，人多畏惮。”刘墉曾先后两次提督江苏学政，相隔近20年，为官处事风格也由峻厉刚急转为平和舒缓，但严肃认真则是一贯的。以刘墉第二次出任江苏学政时按试扬州为例，因为把关严格，使得许多想以作弊蒙混过关者最后不敢入场。